逻辑斯谛回归与最⼤熵模型

逻辑斯谛回归（logistic regression）是统计学习中的经典分类⽅法。最⼤熵是概率模型学习的⼀个准
则，将其推⼴到分类问题得到最⼤熵模型（maximum entropy model）。逻辑斯谛回归模型与最⼤熵模型都
属于对数线性模型。

逻辑斯蒂分布，logit转换

⾸先介绍逻辑斯谛分布（logistic distribution）

定义6.1（逻辑斯谛分布）　设X是连续随机变量，X服从逻辑斯谛分布是指X具有下列分布函数和密度
函数：

逻辑斯谛分布的密度函数f(x)和分布函数F(x)的图形如图6.1所⽰。分布函数属于逻辑斯谛函数，其图
形是⼀条S形曲线（sigmoid curve）

参考

李航